Tư Mã Duật là con trai trưởng của Tấn Huệ Đế, vua thứ hai của nhà Tấn với cung nhân Tạ Cửu. Năm 271 TCN, Tư Mã Trung (tức Tấn Huệ Đế, lúc đó đang làm thái tử) lấy con gái đại thần Giả Sung là Giả Nam Phong[1], phong làm vợ đích, nhưng Giả Nam Phong chỉ sinh toàn con gái, mà đến năm 278 thì Tạ Cửu lại sinh ra con trai là Tư Mã Duật.

Tư Mã Duật từ nhỏ đã thông minh đĩnh ngộ, được vua ông là Tấn Vũ đế yêu quý[2]. Do đó mặc dù thấy Tư Mã Trung bị thiểu năng trí tuệ, nhưng Tấn Vũ đế và Dương Hoàng hậu vẫn giữ ngôi thái tử, vì họ cho rằng tuy con dốt nhưng cháu giỏi thì sau này có thể giúp con, vì vậy càng thôi ý định thay thái tử.

Sau đó Tấn Vũ đế phong cho Tư Mã Duật làm Quảng Lăng vương, phong địa 5 vạn hộ, lại cho đại thần Lưu Thực làm thầy cho ông[2].